AI 전쟁은 모델을 넘어섰다 - 칩·전력·추론·피지컬 AI의 다음 병목
📺 원본 영상: AI 전쟁은 모델을 넘어섰다 | 칩·전력·추론·피지컬 AI의 다음 병목 🎙️ 채널: 안될공학 - IT 테크 신기술 📅 정리 일자: 2026-06-08 ⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 슬라이드, 도식 등)는 포함되지 않을 수 있으며, 강연자의 발언 기반으로만 재구성되었습니다.
개요
실리콘밸리에서 열린 Asia2G Capital의 BeyondAsiaTechSummit은 겉으로는 스타트업 데모데이처럼 보이지만, 세션 전체를 관통하는 하나의 거대한 질문이 있다. “AI 산업에서 다음 병목은 어디인가?” 진행자(이하 채널 운영자 ‘에러’)는 이번 서밋을 통해 투자자들이 더 이상 좋은 모델과 훌륭한 앱에만 주목하지 않는다는 사실을 현장에서 직접 목격했다고 전한다. 대신 그들의 시선은 AI 산업 전체를 움직이는 공급망의 병목, 즉 칩과 패키징, 전력, 데이터센터, 기업 내부 데이터 구조, 그리고 로봇과 드론으로 대표되는 피지컬 AI(Physical AI)로 이동해 있었다.
이 리포트는 서밋에서 다룬 세 가지 병목의 축 - ① 물리적 인프라 병목, ② 조직 내부 병목, ③ 현실 세계 피지컬 AI 병목 - 을 중심으로, 각 영역에서 실제로 발표된 스타트업들의 접근법과 투자 관점에서의 함의를 상세히 정리한다. 단순한 기술 소개를 넘어, AI 플라이휠(Flywheel)이라는 산업 구조적 렌즈를 통해 왜 지금 이 병목들이 중요한지, 그리고 한국과 아시아 스타트업이 이 거대한 흐름 속 어디에 서 있는지를 함께 살펴본다.
1. AI 플라이휠의 재해석 - 모델에서 인프라로
서밋의 첫 세션을 연 정지훈 박사는 AI를 단순한 ‘모델 경쟁’으로 보는 시각에서 벗어나, 실리콘(Silicon)·에너지·인텔리전스·피지컬 AI·자본이 서로 맞물려 돌아가는 플라이휠 구조로 분석했다. 이 플라이휠의 논리는 단순하지만 강력하다. 칩이 있어야 데이터센터가 돌아가고, 데이터센터가 있어야 모델이 커지며, 모델이 커져야 서비스와 로봇이 나온다. 그리고 그 서비스와 로봇에서 발생하는 매출이 다시 칩과 전력 인프라에 재투자되는 순환 구조다.
04:09 - AI 플라이휠 구조도 - 칩→데이터센터→모델→서비스→매출→칩의 순환 구조와 병목 설명
여기서 정지훈 박사가 강조한 핵심은 플라이휠이 “그냥 돈다”는 사실이 아니라, 한 단계의 출력이 다음 단계의 입력이 된다는 연결 구조 자체다. 이 연결이 빠를수록 전체 산업의 회전 속도가 빨라지지만, 반대로 어느 한 단계에서 막히는 순간 전체 흐름이 지체된다. 따라서 투자자의 눈은 자연스럽게 “지금 가장 느린 연결 고리가 어디냐”로 향하게 된다.
이런 맥락에서 빅테크들이 AI CAPEX(자본 지출)를 공격적으로 늘리고 있다는 발표 자체가 곧바로 AI 매출 증가를 의미하지는 않는다는 점도 강조되었다. Google이 대규모 CAPEX를 발표해 시장의 주목을 받았지만, 실제 매출 전환까지는 데이터센터 부지 확보, 전력 연결과 냉각 설비, 서버 설치, 네트워크 구성, 고객 워크로드 확보 등 수많은 병목을 통과해야 한다. 정지훈 박사에 따르면, AI 플라이휠의 속도를 CAPEX 발표 규모만으로 판단하는 것은 지나치게 단순한 시각이다.
이 관점의 변화는 VC 투자 기준에도 직접적으로 반영되고 있다. 과거에는 “좋은 모델 + 훌륭한 앱 + 타당한 SaaS 논리”면 투자 판단이 섰지만, 지금은 컴퓨팅 비용 구조, 데이터 접근성, 엔터프라이즈 배포 능력, 글로벌 고객 확보 역량이 AI 기업 경쟁력의 핵심 기준으로 부상했다. 모델 자체의 성능보다 그 모델을 얼마나 싸게, 빠르게, 안정적으로 서비스할 수 있느냐가 더 중요해진 것이다.
2. 병목 1 - 물리적 인프라, 칩과 전력의 전쟁
2-1. HyperAccel의 LPU - 추론 병목을 겨냥한 설계
AI 산업의 무게중심이 학습(Training)에서 추론(Inference) 쪽으로 이동하면서, 비용 구조의 핵심 지표가 바뀌고 있다. 학습 단계에서는 모델을 한 번 크게 돌리는 데 드는 총 비용이 중요했다면, 추론 단계에서는 토큰 하나를 생성하는 데 드는 단위 원가(Cost per Token)가 비즈니스 생존을 좌우한다. AI 에이전트가 하나의 작업을 수행하기 위해 수십, 수백 번 모델을 반복 호출해야 하는 시대가 오면, 이 단위 원가의 차이가 서비스 전체의 경제성을 결정하게 되기 때문이다.
한국 스타트업 HyperAccel은 바로 이 지점을 파고든다. GPU가 LLM 추론에서 메모리 대역폭(Memory Bandwidth)을 충분히 활용하지 못하는 비효율이 존재한다고 보고, LLM 추론에 특화된 별도의 아키텍처 - LPU(LLM Processing Unit) - 를 설계했다. 이를 이해하려면 LLM 추론이 두 개의 성격이 전혀 다른 단계로 나뉜다는 점을 먼저 이해해야 한다.
06:51 - LLM 추론의 프리필(Prefill)과 디코드(Decode) 단계 차이를 시각화한 HyperAccel 발표 다이어그램
첫 번째 단계는 프리필(Prefill)이다. 사용자가 긴 PDF 문서나 방대한 컨텍스트를 입력했을 때, 모델이 그 전체 맥락을 이해하는 과정이다. 기술적으로는 입력 전체에 대해 Key와 Value를 생성하는 단계로, 병렬 처리가 가능하기 때문에 상대적으로 GPU의 강점이 발휘된다. 반면 두 번째 단계인 디코드(Decode)는 출력 토큰을 한 개씩 순차적으로 생성하는 단계다. 앞 토큰이 생성되어야 다음 토큰을 만들 수 있는 강한 순차성 때문에, KV 캐시(KV Cache)를 계속 읽고 쓰는 과정에서 메모리 접근 지연(Latency)과 대역폭 효율이 결정적인 병목이 된다.
HyperAccel의 LPU는 이 디코드 단계의 메모리 병목을 정면으로 겨냥해 데이터 흐름을 단순화하고, 한 번 불러온 데이터를 더 효율적으로 재활용하는 방향으로 아키텍처를 구성했다. 이는 GPU를 대체하는 것이 아니라, GPU가 비효율적인 영역을 보완하는 포지셔닝이다. 결국 HyperAccel의 전략은 “더 빠른 칩 하나”가 아니라, LLM 추론의 실제 병목 구조에 맞게 설계된 컴퓨팅 아키텍처로 전력 단위당 토큰 수, 토큰당 단가를 낮추는 것에 있다.
2-2. Viologen - 전력이 입장권이 된 시대의 수소 솔루션
데이터센터 산업에서 전력은 이제 단순한 비용 항목이 아니다. 전력을 확보하지 못하면 데이터센터 자체를 지을 수 없고, 데이터센터가 없으면 GPU를 구매해도 설치할 공간이 없다. 채널 운영자가 “전력이 입장권”이라고 표현한 것이 바로 이 의미다. 대형 데이터센터의 전력 확보는 단순히 전선 연결의 문제가 아니라 변전소, 냉각수 인프라, 지역 주민 반발, 인허가 절차, 탄소 배출 규제라는 복합적 병목을 통과해야 하는 과정이다.
미국에서는 최근 규정에 따라 데이터센터를 건설할 때 그 사용량에 맞먹는 발전 용량을 추가로 확보해야 한다는 요건까지 등장했다. 그러나 원자력 발전소는 완공까지 수십 년이 걸리고, 재생에너지는 공급 불안정성이 치명적 약점이다. 결과적으로 현실에서는 화력발전소가 급증하고 있으며, 대기오염 문제가 다시 수면 위로 오르고 있다. AI 인프라 경쟁이 단순한 하드웨어 경쟁을 넘어 에너지 인프라 경쟁으로 확장된 것이다.
Viologen은 이 문제에 두 가지 강점으로 대응한다. 첫째, 모듈식 컨테이너 기반의 소용량 발전 시스템을 병렬로 연결해 정확히 필요한 만큼의 전력을 데이터센터 바로 옆에 온사이트(On-site)로 구축하는 방식이다. 이른바 ‘On-Demand Power Supply’로, 별도의 대형 발전소 건설 없이 즉시 가동 가능한 유연성이 핵심이다. 둘째, 천연가스에서 수소를 추출한 뒤 연료전지(Fuel Cell)로 전기를 생산하는 방식을 채택했다. 강연에 따르면 이 방식은 미국 평균 전기료 대비 약 30% 저렴하며, 배출물로는 물만 생성된다. 데이터센터의 전력 문제가 기존 전력망의 틀을 벗어나 대안 에너지를 본격적으로 검토하는 단계에 접어들었다는 것을 Viologen의 사례가 상징적으로 보여준다.
09:51 - Viologen의 온사이트(On-site) 수소 연료전지 기반 데이터센터 전력 공급 솔루션 개념도
3. 병목 2 - 조직 내부, 문서와 ROI의 함정
3-1. 서치닥(STT 렌더링) - 기업 지식의 구조와 관계를 이해하는 검색
물리적 인프라 병목이 데이터센터 바깥의 문제라면, 그 안에서 실제로 기업이 AI를 도입했을 때 맞닥뜨리는 병목은 전혀 다른 성격이다. 서밋에서 소개된 엔터프라이즈 AI 검색 스타트업(이하 서치닥, STT 음성 렌더링)은 많은 기업들이 AI 기반 문서 검색을 단순히 RAG(Retrieval-Augmented Generation)로 이해하는 데서 문제가 시작된다고 지적했다. 문서를 쪼개어 임베딩(Embedding)하고 벡터DB에 저장한 뒤, 질문이 들어오면 유사한 문단을 찾아 전달하는 방식이다. 단순한 도메인에서는 이 방식으로도 충분하지만, EPC(설계·조달·건설), 제조, 금융 같은 복잡한 기업 환경에서는 한계가 명확하다는 것이다.
현업의 기업 문서는 계약서, 규정집, 기술 문서, 도면, 데이터베이스, 변경 이력이 복잡하게 얽혀 있고, 기업 고유의 은어와 전문 용어가 혼재한다. 어떤 문서가 최신 버전인지, 어떤 조항이 어떤 도면과 연결되는지, 같은 용어가 문맥에 따라 다른 의미로 쓰이는지 등은 단순 유사도 검색으로는 파악할 수 없는 관계적 정보다.
11:00 - 기업 문서의 복잡한 계층 구조(계약서·규정집·도면·DB·변경이력)를 설명하는 서치닥 발표 슬라이드
서치닥은 이런 한계를 극복하기 위해 문서의 계층 구조, 버전 간 변경 이력, 문서 간 참조 관계까지 이해하는 ‘기업 지식 구조화 검색 인프라’를 목표로 한다. 벡터 유사도가 아닌, 기업 지식의 관계와 맥락을 이해하는 검색이 핵심 차별점이다.
3-2. SkillBench - AI ROI는 시간 절감이 전부가 아니다
AI를 도입한 기업이 반드시 마주치는 질문이 있다. “AI 덕분에 생산성이 얼마나 높아졌는가?” 서밋에 참여한 SkillBench는 이 질문에 답하는 것이 생각만큼 단순하지 않으며, 잘못된 지표를 쓰면 오히려 장기적인 기술 부채를 키울 수 있다고 경고했다. 토큰 사용량이 많다고 생산성이 높은 것이 아니고, 코드가 많이 생성된다고 품질이 오르는 것도 아니기 때문이다.
발표에서 소개된 은행 개발자 파일럿 사례가 특히 인상적이다. AI가 생성한 코드와 Git 커밋 사이의 시간 간격이 지나치게 짧아서, 사람이 실제로 해당 코드를 읽고 검증했다고 보기 어려운 케이스들이 다수 발견되었다고 한다. 겉으로는 개발 속도가 빨라진 것처럼 보이지만, 실제로는 검증 없는 코드가 코드베이스에 쌓여 가는 것이며, 이는 보안 취약점과 기술 부채로 이어질 수 있다. SkillBench는 이 맥락에서 초기 공장들이 증기기관이나 전동 모터를 기존 설비에 그냥 끼워 넣었다가 생산성 향상이 제한적이었던 역사적 사례를 들었다. 진짜 생산성 혁명은 모터를 개별 기기에 붙인 뒤 공장 배치 자체를 다시 설계하고 나서야 일어났다는 것이다. AI도 마찬가지다. 기존 업무 흐름에 챗봇 하나를 붙이는 것만으로는 한계가 있으며, 업무를 작은 단위로 쪼개고, AI가 담당할 부분과 사람이 검증해야 할 부분을 다시 설계해야 한다. 조직의 평가 방식도 그에 맞게 재설계되어야 한다는 메시지다.
3-3. 무신사 CTO의 통찰 - AI 시대 개발자 채용의 재정의
같은 조직 병목의 연장선에서, 무신사 CTO Andrew Jeon은 AI 코딩 도구가 보편화되면서 기존 채용 방식이 흔들리고 있는 문제를 다뤘다. 전통적인 코딩 테스트에서는 제출된 코드만으로 후보자의 역량을 판단했는데, 이제는 AI가 생성한 코드를 그대로 붙여넣은 것인지, 후보자가 실제로 이해하고 작성한 것인지를 구분하기가 사실상 어렵다. 문제는 이 현상이 단순히 평가 방법의 기술적 업데이트 이슈가 아니라는 점에 있다.
무신사의 접근법은 “AI 사용을 전제로 평가한다”는 것이다. 엔지니어가 AI를 쓰는 것이 기본값이 될 가능성이 높다고 보고, 중요한 것은 결과물이 아니라 과정이라는 평가 기준을 세웠다. 후보자가 AI에게 어떤 지시를 내렸는지, 문제를 어떻게 구조화했는지, 생성된 결과물을 실제로 이해하고 검증했는지, 왜 그런 설계를 선택했는지를 평가의 중심에 놓는다. 이 기준으로 개발자 유형을 세 가지로 분류했는데, Type A는 문제를 구조화하고 AI를 도구처럼 통제하는 유형, Type B는 방향만 제시하고 AI 출력물을 수정해 활용하는 유형, Type C는 문제 분석 없이 AI에 의존하며 결과물을 검증하지 않는 유형이다. AI 시대에서는 AI를 쓰느냐가 아니라, AI를 통제하느냐가 역량의 척도가 된다는 것이 핵심 메시지다.
13:44 - 무신사 CTO 발표 자료 - AI 시대 개발자 유형 분류표 (Type A·B·C)
Andrew Jeon 은 주니어 채용 문제도 함께 짚었다. AI가 주니어 수준의 업무를 대체할 수 있다는 이유로 기업들이 주니어 채용을 줄이면 단기적으로는 효율적으로 보이지만, 주니어를 뽑아 키우지 않으면 미래의 시니어도 생기지 않는다. 시니어 엔지니어는 실무 실패 경험, 코드 리뷰, 시스템 운영을 통해 성장하기 때문이다. 주니어 채용 축소는 오늘의 비용 절감처럼 보이지만, 몇 년 뒤 조직의 기술 역량을 공동화(空洞化)할 수 있다는 경고다.
4. 병목 3 - 피지컬 AI, 현실 세계로의 확장
4-1. NC AI - 가상 세계가 합성 데이터 공장이 되다
AI가 챗봇이나 소프트웨어 서비스에 머무르지 않고 로봇·드론·자율주행 같은 피지컬 AI로 확장될 때, 새로운 종류의 병목이 등장한다. 바로 데이터 부족이다. 피지컬 AI가 현실 세계의 다양한 상황에서 제대로 작동하려면 방대한 학습 데이터가 필요하지만, 현실 환경에서 충분한 데이터를 수집하는 것은 느리고 비싸며 특히 예외 상황이나 위험 상황에서는 거의 불가능하다.
NC AI의 발표는 표면적으로는 게임 콘텐츠 생성 기술 - 더빙, 번역, 3D 에셋, 사운드, 립싱크 - 에 관한 것이었다. 그러나 채널 운영자가 주목한 더 중요한 포인트는 게임 회사가 수십 년간 쌓아온 가상 세계 제작 역량이 피지컬 AI의 합성 데이터(Synthetic Data) 생성과 직결된다는 사실이다. 고품질 3D 가상 환경을 자유롭게 구성하고, 거기서 수백만 가지 시나리오의 데이터를 자동으로 만들어낼 수 있는 역량은, 피지컬 AI 학습 데이터의 질과 양 모두를 해결할 수 있는 수단이 된다. 가상 세계의 진짜 가치가 예쁜 그래픽이 아니라 현실에서 모으기 어려운 피지컬 AI 학습 데이터를 생성하는 공장으로서의 역할에 있다는 재해석이다.
4-2. Nomatic 드론 - 전력망 위를 나는 자율 감시자
Nomatic의 드론 솔루션은 피지컬 AI와 전력 병목이 교차하는 흥미로운 지점에 있다. AI 데이터센터에 막대한 전력이 필요한데, 정작 그 전력을 공급하는 전력망을 제대로 관리하는 것도 AI와 자율 드론이 필요한 문제가 되고 있기 때문이다. Nomatic의 드론은 단순히 사진을 찍는 수준을 넘어 전력망 주변을 자율적으로 이동하며 점검 데이터를 수집하고, 이를 바탕으로 예측적 유지보수를 수행하는 것을 목표로 한다.
이 드론의 기술적 독창성은 전력선 위에 참새처럼 앉아 무선 충전을 할 수 있다는 점에 있다. 일반 드론의 최대 약점인 배터리 지속 시간 문제를 전력망 자체를 충전 인프라로 활용함으로써 해결한 것이다. 이 덕분에 한 번 자율 비행을 시작하면 1년 이상 전력망을 따라 이동하면서 전력 그리드 상태를 상시 점검하고 관리할 수 있다. 특히 미국이나 유럽처럼 광활한 면적의 전력망을 물리적으로 순찰하기 어려운 환경에서 이 방식의 효용은 매우 크다. 사후 대응이 아닌 AI 기반 상시 예측 점검으로의 전환은 전력망 안정성과 비용 구조 모두에 영향을 미친다.
15:31 - Nomatic 드론의 전력망 자율 순찰 및 전력선 무선 충전 개념 설명 슬라이드
4-3. Applied Intuition - 방산 AI, 피지컬 AI의 극한 테스트베드
방산 AI를 발표한 Applied Intuition의 세션은 자율 비행, 무인 시스템, 전술 AI, 센서 융합, 전자전, 인간-기계 협력을 다뤘다. 채널 운영자는 방산 AI를 피지컬 AI의 극한 테스트베드(Test Bed)로 해석했다. 로봇이나 드론이 일반적인 환경에서 잘 작동하는 것은 기본이지만, 통신이 끊기거나 센서가 불안정한 상황에서도 올바른 판단을 내려야 하는 방산 환경은 피지컬 AI가 가장 혹독한 조건을 통과해야 하는 영역이기 때문이다. 따라서 방산 AI에서 검증된 기술은 민간 피지컬 AI 전반에 적용 가능한 신뢰성의 기준점을 제공한다.
5. 한국의 전략적 위치 - 부품 공급자에서 시스템 설계자로
정지훈 박사는 한국을 단순히 메모리와 제조를 잘하는 나라로 보는 시각에 이의를 제기했다. HBM 메모리와 제조 기반은 물론이고, 자동차(현대차), 로봇, 배터리, 방산, 통신 인프라, 피지컬 AI 관련 기반 기술까지 한국은 AI 플라이휠의 여러 병목에 걸쳐 있는 국가라는 것이다. 실제로 HBM을 둘러싼 SK Hynix, 삼성전자, 마이크론의 경쟁과 첨단 패키징, TSMC CoWoS, 인터포저, PCB 기판까지 AI 공급망의 핵심들이 이미 한국 기업들과 깊이 연결되어 있다.
그러나 정지훈 박사의 경고는 명확하다. 부품 공급자로만 머무르면 전략적 주도권이 제한된다는 것이다. 시스템 설계, 소프트웨어, 데이터센터 전략, 그리고 자본 네트워크까지 연결해야 진정한 의미에서 AI 플라이휠의 주요 플레이어가 될 수 있다. 반도체와 배터리를 잘 만드는 것만으로는 이 거대한 플라이휠의 주도권 경쟁에서 충분하지 않다는 냉정한 진단이다.
한국 스타트업이 글로벌 시장, 특히 미국 시장에 진출하는 것이 기술력만으로는 부족하다는 현실도 거론되었다. 미국 고객의 구매 프로세스 이해, 엔터프라이즈 세일즈, 보안 심사, 클라우드 파트너십, 현지 레퍼런스 구축 같은 비기술적 장벽들이 존재하기 때문이다. 특히 AI 인프라, 방산, 에너지 분야는 세일즈 사이클이 길고 신뢰 축적이 필수여서, 단순 SaaS보다 훨씬 높은 장벽이 있다. 이런 맥락에서 Asia2G Capital이 구축하는 실리콘밸리 한인 기술 네트워크는 기술력을 시장 신뢰로 전환하는 다리로서의 역할을 갖는다.
마무리 - 다음 병목을 선점하는 자가 플라이휠을 이끈다
이번 BeyondAsiaTechSummit이 전달하는 메시지는 하나로 수렴한다. AI 전쟁의 전선이 모델 성능 경쟁에서 인프라 병목 해소 경쟁으로 이동했다는 것이다. 모델이 좋은 것은 이미 전제 조건이 되었고, 그 모델을 얼마나 싸게·빠르게·안정적으로 서비스할 수 있느냐, 그리고 그 서비스를 기업과 현실 세계에 얼마나 깊숙이 침투시킬 수 있느냐가 다음 경쟁의 무대다.
물리적 병목에서는 추론에 특화된 칩 아키텍처(HyperAccel LPU)와 대안 에너지(Viologen 수소 전력)가 각각 컴퓨팅 비용과 전력 조달이라는 핵심 병목을 겨냥하고 있다. 조직 내부 병목에서는 기업 지식의 관계 구조를 이해하는 검색 인프라와, AI 도입 후 실질적인 ROI를 측정하고 업무 흐름을 재설계하는 것이 중요한 과제로 부상했다. 피지컬 AI 영역에서는 가상 세계를 합성 데이터 공장으로 전환하고, 자율 드론으로 전력망을 상시 관리하며, 방산이라는 극한 환경에서 AI의 신뢰성을 검증하는 방향으로 전선이 형성되고 있다.
이 모든 병목이 서로 연결되어 있다는 사실이 이번 서밋의 가장 중요한 인사이트다. 전력이 없으면 데이터센터가 없고, 데이터센터가 없으면 추론 서비스가 없으며, 추론 서비스가 없으면 기업 AI도 피지컬 AI도 없다. 이 플라이휠 안에서 어느 병목을 선점하느냐가 앞으로 AI 산업의 주도권을 결정할 것이다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | AI 전쟁은 모델을 넘어섰다 - 칩·전력·추론·피지컬 AI의 다음 병목 |
| 채널 | 안될공학 - IT 테크 신기술 |
| 이벤트 | Asia2G Capital BeyondAsiaTechSummit at Plug and Play Tech Center, Silicon Valley |
| 주요 발표자 | 정지훈 박사, 무신사 CTO Andrew Jeon, HyperAccel, Viologen, NC AI, Nomatic, Applied Intuition, SkillBench |
| 리포트 작성 | 2026-06-08 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 음성(STT) 기반으로 재구성되었습니다. 슬라이드·차트·시각 자료는 포함되지 않을 수 있으며, 정확한 내용은 원본 영상을 참조해 주세요.